01
课程介绍与环境准备
K8s集群搭建 · kubectl配置 · vLLM镜像拉取
环境基础
02
vLLM 服务基础
vLLM是什么 · 为什么用vLLM · 核心概念
概念模型
03
vLLM 服务部署
Deployment部署 · 资源限制 · 环境变量
部署Deployment
04
vLLM 服务暴露
Service类型 · ClusterIP · NodePort · LoadBalancer
Service网络
05
Ingress 概念入门
Ingress是什么 · Ingress Controller · 为什么需要
概念Ingress
06
Ingress Controller 安装
Nginx Ingress · Helm安装 · YAML安装
安装Helm
07
Ingress 资源定义
YAML结构 · host · path · backend
YAML配置
08
Ingress 暴露 vLLM 服务
创建规则 · 配置域名 · 路径转发
转发域名
09
Ingress TLS 配置
自签名证书 · Secret · Ingress引用Secret
TLS证书
10
Ingress 注解 (Annotations)
超时 · 重写 · CORS · 常用注解
注解配置
11
Ingress 多路径转发
同一域名多路径 → 不同vLLM服务
多路径路由
12
Ingress 多域名转发
不同域名 → 不同vLLM服务
多域名虚拟主机
13
Ingress 默认后端
404页面 · 健康检查
默认后端健康检查
14
Ingress 灰度发布
Canary · 基于Header · 基于权重
灰度Canary
15
Ingress 限流配置
注解限流 · 自定义插件限流
限流流量控制
16
Ingress 白名单/黑名单
IP白名单 · IP黑名单
安全ACL
17
Ingress 日志与监控
Controller日志 · Prometheus监控
日志监控
18
Ingress 高可用部署
多副本 · 反亲和性 · HPA
高可用HPA
19
Ingress 性能调优
连接超时 · 缓冲区 · keepalive
性能调优
20
Ingress 安全加固
RBAC · 网络策略 · Pod安全策略
安全RBAC
21
Ingress 与 Service Mesh
Istio集成 · Envoy集成
Service MeshIstio
22
Ingress 与 API Gateway
Kong · Traefik · APISIX 对比
API Gateway对比
23
Ingress 故障排查
常见错误 · 404 · 502 · 证书问题
排错调试
24
Ingress 升级与回滚
Controller升级 · Ingress资源回滚
升级回滚
25
Ingress 多集群场景
多集群Ingress · 全局负载均衡
多集群GSLB
26
Ingress 与 DNS 集成
ExternalDNS · 自动DNS解析
DNSExternalDNS
27
Ingress 与 Cert-Manager
自动签发证书 · 自动续期
证书cert-manager
28
Ingress 与 OAuth2 Proxy
OAuth2认证 · 保护vLLM服务
OAuth2认证
29
Ingress 与 WebSocket
vLLM流式输出 · WebSocket配置
WebSocket流式
30
综合实战
完整项目部署 · 从0到1 · 生产最佳实践
实战最佳实践